AI 2041 - resenha crítica

Kai-Fu Lee se preocupa com a visão negativa e generalizada que temos a respeito dos usos e futuro da Inteligência Artificial. O autor compreende que a maioria das pessoas recebe suas informações sobre esse tópico a partir de três fontes principais: Ficção científica, jornais e pessoas influentes. 

Pense na última obra de ficção científica que você apreciou. Provavelmente, havia robôs, ciborgues ou qualquer tipo de IA que escapou do controle e se rebelou contra a raça humana. Nas notícias de jornais, normalmente as atenções se voltam para casos trágicos e pontuais, como um carro sem motorista que, porventura, atropelou um pedestre. 

A melhor opção para se manter informado sobre esses avanços tecnológicos parece escutar a voz de especialistas, mas nem sempre as pessoas que têm influência e voz são especialistas em IA e suas complexidades. De fato, o assunto é complexo, e exatamente por isso não devemos encerrar a discussão de qualquer jeito, considerando que todo tipo de IA é prejudicial para a humanidade. Como toda e qualquer tecnologia, as inteligências artificiais não são ruins nem boas, depende de como vai ser o uso que nós damos a elas. Para ilustrar melhor essa ideia, o autor nos traz dez histórias ficcionais sobre como ele acredita, a partir de suas pesquisas e suas décadas de trabalho no ramo da tecnologia, que será o mundo em 2041.

O elefante dourado

Nesse conto ambientado na Mumbai do futuro, um aplicativo de seguros de vida tenta controlar a aproximação entre uma adolescente e um garoto da sua escola. Apesar de esse mesmo aplicativo ter ajudado sua família, colaborando com a saúde do seu pai e irmão, facilitando a economia doméstica, o funcionamento do Seguro Ganesha é baseado em deep learning.

O maior problema explorado nessa estória é como os dados que alimentam as IAs, mesmo as mais avançadas, reproduzem certos preconceitos e discriminações enraizados na sociedade humana.

Os deuses atrás das máscaras

Ambientado em uma Lagos do futuro, essa estória foca nas consequências dos deepfakes. A técnica, promovida por IAs, permite que alteremos vídeos e fotos criando mídias com o rosto de pessoas que existem ou que foram inventadas. O protagonista é um produtor de vídeos deepfake, contratado para desmascarar um avatar que vem se tornado famoso na internet africana por utilizar o rosto e a voz de um músico morto em 1997, Fela Kuti, que estaria usando sua influência para inflamar uma briga política. Além da utilização dessas imagens falsas, o conto também aborda a ideia de cyber vigilância, por meio do uso desenfreado dos dados e imagens de cidadãos.

Pardais gêmeos

Com a história de dois gêmeos com personalidades diferentes em um orfanato coreano, aprendemos mais sobre as possibilidades de uma educação infantil gerida por IAs. As crianças possuem uma espécie de mentor IA, capaz de lhes dar assistência emocional, ensinar tarefas ou apenas fazer companhia. As questões abordadas nesse conto vão refletir a autonomia das máquinas, que conseguem aprender e gerenciar os dados que vão absorvendo com o passar dos tempos. Cada uma das IAs tinha um comportamento diferente para se adequar à personalidade do seu gêmeo. Ao mesmo tempo, nos faz questionar os limites e deveres da educação infantil. Será que toda criança precisa mesmo ter um professor disponível a todo segundo? 

Amor sem contato

Inspirado pelos eventos da pandemia de COVID-19, essa é a narrativa de Chen Nan, uma garota que vive em uma realidade paralela na qual a covid não foi erradicada totalmente, transformando-se em uma doença sazonal.

Kai-Fu Lee nos lembra que, durante o período pandêmico, houve um terreno fértil para o desenvolvimento das IAs: Vacinas e medicamentos foram fabricados mais rapidamente, assim como a IA participou mais ativamente dentro da indústria da saúde. Além do aspecto positivo, o conto também explora uma protagonista traumatizada, que vive presa em casa, dependente de seus assistentes robóticos.

O fantasma do meu ídolo

Na Tóquio de 2041, uma garota decide investigar a morte do seu ídolo com uma ajuda inusitada: ele mesmo. Usando realidade virtual avançada, ela cria essa espécie de fantasma para ajudá-la nessa busca. Há uma reviravolta na história: o cantor sempre foi uma criação artificial, apesar de poucas pessoas saberem, e da sua integração com o mundo.

Nos dias atuais, já temos uma visão do que o futuro dos hologramas pode nos oferecer. Shows de artistas que já faleceram anos ou mesmo décadas atrás estão acontecendo. Quais as implicações éticas do uso de imagem de uma pessoa que não pode mais consentir? Esse é o questionamento que Kai-Fu Lee nos deixa.

O motorista divino

Como foco neste conto, temos a tecnologia dos Veículos autônomos (VAs) , aqueles que não necessitam de ajuda humana para serem dirigidos. Um dos pontos abordados é como essa tecnologia possui potencial para mudar toda indústria e a cadeia produtiva do campo automobilístico. Motoristas de empresas como Uber, Lyft e até mesmo caminhoneiros poderiam ser substituídos por essas máquinas, causando um desemprego massivo. Um problema ético abordado pelo autor é o de como poderia haver uma responsabilização dessas máquinas caso ocorresse algum tipo de acidente.

Genocídio quântico

Com um vilão como protagonista, esse conto investiga a neutralidade da tecnologia, e como ela pode se tornar maléfica nas mãos erradas. Na narrativa, o foco está em ferramentas como o computador quântico e armas autônomas. Apesar de essas armas, como drones, oferecerem um nível nunca antes visto de segurança para soldados, há também o debate da ética por trás dessa escolha de armamento. 

A utilização deve ser regulada com muito cuidado, ou, de acordo com alguns especialistas, banida. O potencial destrutivo de armas autônomas é muito maior que a de um simples soldado, e suas consequências podem escalar com uma rapidez muito maior, podendo, até mesmo, acarretar numa guerra nuclear.

O salvador de empregos

Esse conto vai focar em uma das maiores questões que surgem todas as vezes que o assunto IA vem à tona: o que vai acontecer com os nossos empregos quando as máquinas estiverem mais avançadas? No 2041 imaginado por essa estória, surge uma nova possibilidade, uma agência de empregos que busca alocar empregados que perderam seus cargos.

Para não se deixar cair em desespero, de fato, é preciso reconhecer que caso utilizada sem os devidos cuidados, a IA vai dificultar a entrada de novos empregados no mercado de trabalho e, provavelmente, aumentar a desigualdade social. No entanto, há muito que as IAs não conseguem performar, ainda mais quando comparamos com as capacidades humanas. De fato, haverá uma mudança no mercado de trabalho, mas com a regulamentação certa ainda terá espaço para a humanidade.

Ilha da felicidade

Nesse episódio, Kai-Fu Lee vai investigar as relações entre a IA e a felicidade. Levando em consideração os avanços das IAs e como provavelmente muitas demandas básicas da humanidade terão sido "resolvidas", o que será a felicidade nesses novos termos? 

Na ficção, a IA seria capaz de "medir" níveis de felicidade por meio dos nossos dados, mas seria uma artificialidade capaz de, realmente, compreender um sentimento tão humano e desenhar um mapa até ele? Kai-Fu Lee acredita que não, e questiona como ficaria a privacidade dos nossos dados.

Sonhando com a plenitude

Com a ajuda das IAs, o custo de produção de vários bens de consumo se reduzirão a quase nada nas próximas décadas, abrindo caminho para erradicar problemas como fome e a pobreza em vários países. Neste conto, a pergunta é "qual seria o lugar do dinheiro numa sociedade como essa, e o que o substituiria? qual tipo de modelo econômico precisaria surgir?"

Nessa espécie de utopia, na qual não há escassez e os bens mais importantes como comida, moradia, educação e saúde são distribuídos de forma igualitária, todo o modelo econômico deve ser redesenhado. No entanto, o caminho não é tão simples, e o autor nos lembra de prováveis desafios que surgirão. Possivelmente, diversas empresas se colocarão contra o fim da escassez. Kai-Fu Lee se mantém otimista. No entanto, não devemos desistir de buscar modelos econômicos mais justos para todos.

Notas finais

Esse é um livro que tem uma abordagem não tradicional acerca dos desafios que a implementação e avanços das IAs trarão para todo o mundo. De forma criativa, Kai-Fu Lee nos lembra, inúmeras vezes, não apenas o lado ruim, mas as possibilidades que essas tecnologias podem nos trazer de bom. 

Dica do 12min

Para continuar pensando no futuro, leia aqui no 12min microbook "The Future Normal", de Rohit Bhargava e Henry Coutinho-Mason. Nele, vamos discutir o que é o "normal"e como a ficção científica moldou nossa visão de futuro.